Stable Diffusion训练LoRA模型参数详细说明(阿里巴巴堆友AI)

PagedAdamW8bit在AdamW8bit的基础上进一步优化,通过将参数分片或分页,以更有效地处理内存,适合在更小的GPU内存中训练大型模型。PagedLion8bit在FatDuck格的基础上,进一步优化...